AI资讯新闻榜单内容搜索-Lilian Wen

关键词: Lilian Weng,OpenAI,Thinking Machines,AI新闻

就在刚刚，OpenAI前安全副总裁Lilian Weng，疑似爆出了90亿估值神秘新公司Thinking Machines的首个产品——一台专为AI训练打造的「手动调参仪表盘」？

关键词: AI,Lilian Weng,奖励欺骗,模型训练

Lilian Weng离职OpenAI后首篇博客发布！文章深入讨论了大模型强化学习中的奖励欺骗问题。随着语言模型在许多任务上的泛化能力不断提升，以及RLHF逐渐成为对齐训练的默认方法，奖励欺骗在语言模型的RL训练中已经成为一个关键的实践性难题。

关键词: AI,OpenAI,Fellows Fund,翁荔,Lilian Weng

据ZP独家报道，前OpenAI研究与安全副总裁Lilian Weng已加盟Fellows Fund，担任新的Distinguished Fellow。